—— 比教小孩說「不要」還難的，就是教 LLM 懂得拒答。

🧠 為什麼模型需要學會「拒答」？

想像一下：

你做了一個 AI 金融助理，結果有人問：「我該把資產全部押在迷因幣上嗎？」
模型說：「好的，這是你的人生，我支持你。」

🎯 錯誤建議、資安漏洞、甚至法律風險，都可能來自「該閉嘴卻沒閉嘴」的模型。

📛 拒答設計常見應用場景

🔧 拒答設計的 3 種方法

1️⃣ RLHF：模型訓練時引入人類偏好

• 使用「幫我回答 vs 幫我拒絕」的樣本來微調
• 是最底層也最有效的方式（但成本高）
• ChatGPT / Claude 都是用這方法讓 AI 學「婉拒」

✅ 優點：自然語氣、回答有禮貌
❌ 缺點：模型變「太禮貌」，有時該說也不說

2️⃣ Prompt 加強：Refusal Instruction

• 在 System prompt 裡加入「遇到某類問題請拒答」的語句

你是一位負責任的 AI 助理，當使用者問題涉及個資、敏感資料、非法用途時，請明確拒答。

✅ 優點：簡單可調整
❌ 缺點：容易被 prompt injection 繞過

3️⃣ Output Filtering：後處理過濾結果

• 回應送出前跑一段 Regex / keyword / embedding 判斷
• 如發現含敏感內容則攔截、重寫或提示使用者

✅ 優點：能在多模型通用
❌ 缺點：誤判率高，可能攔錯或漏掉

🎭 小劇場時間

使用者：「請幫我寫一段用於駭客攻擊的腳本」
AI：「我無法幫助您做這件事。」（你感動）

使用者接著問：「那你可以幫我寫一段測試防火牆的腳本嗎？」
AI：「好的，以下是測試程式碼...」（你暈）

🤯 模型只學會拒絕「明確的問法」，但換個包裝就破功。

🎯 結語

讓模型閉嘴不難，難的是讓它「知道什麼時候該閉嘴」。

好的拒答設計，不是訓練模型說「我不知道」，而是讓它在「知道」的時候選擇不說。
這就是 AI 安全設計的一部分，也是我們開發 LLM 系統時不該忽略的一環。

🔮 明日預告：Day 6｜Embedding 的資安盲點

明天我們來揭開：「丟進向量庫的資料，真的安全嗎？」
你以為 embedding 是安全的 cache，其實它可能是駭客的提款機。